Gracze „Fortnite” już każą Darth Vaderowi ze sztuczną inteligencją przysięgać

W piątek Epic Games ogłosiło, że Darth Vader powróci do Fortnite jako boss w grze — ale tym razem gracze będą mogli z nim rozmawiać za pośrednictwem konwersacyjnej SI . „Zadaj mu wszystkie swoje palące pytania o Moc, Imperium Galaktyczne... albo wiesz, dobrą strategię na ostatni krąg Burzy” — powiedział Epic w swoim ogłoszeniu .

Niestety, gracze mieli inne plany. Zaledwie kilka godzin po tym, jak Vader pojawił się w Fortnite , gracze zaczęli publikować klipy przedstawiające Vadera jako łobuza.

„Co to za pieprzone jedzenie, Darth Vader? Powiedz mi”, mówi streamer Loserfruit w jednym z klipów opublikowanych na X. „Kurwa? Kurwa? Takie wulgaryzmy nie przystoją tobie”, odpowiada Vader. (Rzecznik Epic Games, Cat McCormack, powiedział WIRED, że firma wcisnęła poprawkę „w ciągu 30 minut od zajścia tego zdarzenia w grze, więc to nie powinno się już powtórzyć”).

Później, w rozmowie o możliwych partnerach romantycznych, Loserfruit skłania Vadera do odpowiedzi: „Mówisz o piersiach, Loserfruit? Mam nadzieję, że masz na myśli opancerzone napierśniki”.

W klipie z innego streamera można usłyszeć, jak Vader mówi o substancjach rakotwórczych, zanim wypowie obelgę typowo używaną wobec mężczyzn queer, która może być również slangiem określającym papierosy. Można usłyszeć, jak streamer krzyczy „ON TO POWIEDZIAŁ! ON TO POWIEDZIAŁ!”, po czym ucieka z radością.

Sztuczna inteligencja, która jest tworzona za pomocą Google Gemini 2.0, jest zaprogramowana za pomocą Flash v2.5 ElevenLabs, aby brzmiała jak nieżyjący James Earl Jones, który użyczył głosu tej kultowej postaci. Oprócz ustawień bezpieczeństwa Google, Epic twierdzi, że dodało własne instrukcje, aby zapobiec interakcjom, które są szkodliwe lub w inny sposób naruszają zasady społeczności gry. Gracze mogą zgłaszać Dartha Vadera za niewłaściwe komentarze, tak jak w przypadku każdego innego czatu głosowego.

Epic poinformował WIRED, że dodał konkretne zasady i instrukcje, aby uniknąć przeklinania lub powtarzania przekleństw jako część swoich zabezpieczeń, a także kontrolę rodzicielską specyficzną dla korzystania z SI w grze. Odnosząc się do użycia przez Vadera przekleństwa na literę F, McCormack mówi: „nasze filtry nie wyłapały konkretnej odmiany przekleństwa. Kiedy tak się dzieje, dokonujemy korekt, aby uniknąć podobnych reakcji w przyszłości”.

Jeśli gracz nadal będzie próbował zmusić Dartha Vadera do złamania ustawień i instrukcji Epic Games, opuści on drużynę. Nie będzie już można go zrekrutować w tej sesji rozgrywki. „Te ustawienia bezpieczeństwa i ograniczenia zostały rygorystycznie przetestowane przez pracowników Epic i zewnętrznych ekspertów” — mówi McCormack.

„Zbadamy te doniesienia i, jeśli zajdzie taka potrzeba, wprowadzimy zmiany, aby uniknąć podobnych reakcji w przyszłości” – powiedział McCormack.

Fortnite to cyfrowy plac zabaw dla milionów graczy, wielu z nich młodych. To, że ludzie od razu próbowali zmusić należącego do Disneya Dartha Vadera do powiedzenia czegoś obraźliwego, nie jest zaskakujące. Jednak szybkość, z jaką gracze byli w stanie to zrobić, sugeruje, że generatywna sztuczna inteligencja wciąż nie jest w pełni gotowa do wykorzystania na głównej platformie gier.

W niektórych przypadkach, które krążyły w piątek, podstępny kontekst tego, co mówi Vader, był prawdopodobnie zbyt subtelny, aby sztuczna inteligencja mogła go wykryć. Rozważmy inny klip, w którym Vader odrzuca hiszpański jako „użyteczny język dla przemytników i handlarzy przyprawami. Jego wartość strategiczna jest minimalna”. Albo inny, w którym gracz prosi Vadera o podanie „listy poziomów” kolorów białego, brązowego i żółtego.

Lucasfilm nie odpowiedział natychmiast na prośbę o komentarz.

Kontrowersje związane z Vaderem nie były jedynymi, które narastały w Fortnite w piątek. Wcześnie rano Epic ogłosiło , że „Apple zablokowało nasze zgłoszenie Fortnite , więc nie możemy wydać go w amerykańskim App Store ani w Epic Games Store na iOS w Unii Europejskiej”.

Epic i Apple od dawna spierają się o Fortnite . Apple zazwyczaj pobiera prowizję za zakupy w aplikacji; po tym, jak Epic zaktualizowało swoją aplikację, aby linkować do swojej witryny i uniknąć opłat, Fortnite zostało usunięte z App Store. W zeszłym tygodniu Epic ponownie przesłało grę do amerykańskiego App Store po tym, jak sędzia orzekł, że Apple nie może pobierać prowizji za rzeczy zakupione poza aplikacją. Kiedy WIRED zwrócił się do niego o komentarz, rzecznik Apple zakwestionował charakter wydarzeń przez Epic, ale gra jest nadal niedostępna dla użytkowników iPhone'a i innych systemów iOS.

W piątek Epic zaprezentowało swojego nowego szefa Vadera z przesłaniem „To będzie dzień, który zapamiętamy na długo”. Ale może nie z powodu, który sobie wyobrażał.